Trong tiểu thuyết Tam quốc diễn nghĩa, Diêm Vũ xuất hiện ở hồi 115, được mô tả là một kẻ vô năng, không có công lao gì, có được địa vị cao nhờ nịnh bợ Hoàng Hạo. Hoàng Hạo đề nghị dùng Diêm Vũ thay Khương Duy đánh Ngụy, Hậu chủ bèn ép Khương Duy rút quân về, làm lỡ mất thời cơ. Sau đó Diêm Vũ nghe nói tướng Ngụy Đặng Ngải binh pháp lợi hại, liền khiếp đảm, không dám ra đánh.[8]